यह लेख कृत्रिम बुद्धिमत्ता के क्षेत्र में, विशेष रूप से बड़े भाषा मॉडल (LLMs) के संचालन और भंडारण की चुनौतियों की जांच करता है। AI क्षमताओं में वृद्धि के साथ, जैसे कि Bloom मॉडल का उभार, आवश्यक गणना संसाधनों और भंडारण स्थान में काफी वृद्धि हुई है, जिसके परिणामस्वरूप उच्च लागत और व्यापकता की समस्या उत्पन्न हुई है। इस समस्या को हल करने के लिए, शोधकर्ताओं ने 'मात्रात्मककरण' तकनीक को पेश किया है, जो मॉडल के वजन और सक्रियण की सटीकता को कम करके मॉडल के आकार को छोटा करने और चलाने की गति को तेज करने में मदद करता है, साथ ही संभावित सटीकता के नुकसान को नियंत्रित करता है। लेख में बीजिंग एरोस्पेस यूनिवर्सिटी और सेंसटाइम टेक्नोलॉजी द्वारा सह-विकसित LLMC टूलकिट पर विशेष ध्यान दिया गया है।